Éduquer à l'intelligence artificielle - Enjeux éthiques et prévention des risques

Cette activité vise à sensibiliser les acteurs de l'éducation à l'importance cruciale de la protection des données et de la vie privée dans un environnement éducatif de plus en plus numérique et influencé par l'IA. Elle leur permettra de développer une meilleure compréhension des enjeux et d'adopter des comportements plus responsables.

Cette activité vise à sensibiliser les acteurs de l'éducation aux risques liés à l'utilisation de l'intelligence artificielle en éducation comme les biais algorithmiques, les hallucinations de l'IA (inventions de fausses informations) et les inégalités pédagogiques. L'objectif est de développer une posture critique et éclairée face à l'IA, tout en outillant les utilisateurs à identifier les limites, les dérives possibles, mais aussi les opportunités d'un usage responsable de ces technologies dans le monde de l'éducation.

Cette activité appelle à reflechir sur les effets d'une utilisation excessive de l'IA et le risque de déshumanisation pédagogique qu'elle entraîne à travers la distension des liens sociaux.

L'activité vise à éveiller la conscience des acteurs éducatifs sur les effets potentiels de l'IA générative sur la pensée critique, afin de promouvoir un usage éthique et réfléchi de l'IA dans les pratiques pédagogiques.

Cet avis du CNPEN, qui alimente cette activité, propose une analyse rigoureuse des risques liés à l'IA générative ainsi que des recommandations pour une gouvernance responsable et un usage raisonné, en particulier dans le domaine éducatif.

L'activité propose de questionner les implications éthiques liées à l'usage de l'intelligence artificielle dans l'enseignement supérieur. À travers l'analyse d'un protocole de revue exploratoire, elle vise à sensibiliser les enseignants, étudiants et autres acteurs éducatifs aux risques et responsabilités associés à l'IA, en particulier dans les contextes d'évaluation, de production écrite et de prise de décision pédagogique.

Cette activité vise à éveiller la réflexion éthique des apprenants autour de l'intelligence artificielle et de son impact sur le travail, la propriété des connaissances et la justice sociale. À partir du concept d'IA avec humain dans la boucle (Human-in-the-loop AI), elle interroge la manière dont les données issues des interactions humaines sont exploitées par les systèmes IA, souvent à l'insu des producteurs de savoirs.

L'activité invite les participants à explorer le lien entre la littératie en intelligence artificielle et l'attitude face à son intégration dans la vie quotidienne. Elle vise à développer un regard critique et informé sur les usages de l'IA, en montrant que plus une personne comprend le fonctionnement et les limites de l'IA, plus elle adopte une posture de discernement. L'objectif est d'encourager une appropriation réfléchie, lucide et responsable des technologies d'IA.

L'activité invite les acteurs de l'éducation à réfléchir sur les limites de l'intelligence artificielle en regard des spécificités humaines. À travers une lecture critique de l'article^[*] de Charles Hadji, « Avec ChatGPT, ne faut-il pas craindre l'homme plus que les algorithmes ? » elle encourage à distinguer les compétences simulées par les IA de celles qui relèvent de la pensée humaine authentique : doute, faillibilité, émotions, éthique. Elle vise à cultiver une vigilance éthique face aux discours technophiles et à réaffirmer la valeur de la subjectivité humaine dans l'apprentissage.

Cette activité propose une réflexion sur l'usage pédagogique de ChatGPT dans l'enseignement supérieur. À partir d'une analyse des apports et des limites du robot conversationnel, les participants sont amenés à s'interroger sur les transformations qu'il induit dans la posture de l'enseignant et dans celle de l'apprenant. L'objectif est de favoriser une appropriation critique et inventive de l'outil, en dépassant les peurs pour explorer des scénarios collaboratifs.

L'activité vise à éveiller une conscience critique sur les conséquences des intelligences artificielles génératives, non seulement sur les pratiques éducatives mais sur la pensée elle-même. À travers l'analyse du texte d'Anne Alombert^[*], les participants réfléchiront à la manière dont l'automatisation de l'écriture et du langage reconfigure les fonctions cognitives, expressives et culturelles, en posant la question : que perd-on lorsque l'on délègue à la machine le pouvoir d'écrire et de formuler des idées ?

L'activité invite les apprenants à analyser l'impact des intelligences artificielles génératives sur l'espace public numérique et la démocratie. Elle vise à développer une conscience critique des logiques algorithmiques qui structurent la circulation des contenus en ligne, en particulier à travers la question des recommandations, de la visibilité et de l'information. À partir du texte d'Anne Alombert, les acteurs de l'éducation réfléchiront aux enjeux politiques liés à l'automatisation du langage et à la standardisation des discours.

L'activité amène les apprenants à réfléchir aux effets politiques, sociaux et psychiques des technologies informatiques, notamment de l'intelligence artificielle, sur les principes démocratiques. À travers l'analyse du texte de Christopher Pollmann, les élèves sont invités à questionner la rationalisation numérique et la perte de contrôle collectif sur les décisions publiques, les savoirs et les relations humaines. L'enjeu est de comprendre comment l'automatisation algorithmique peut fragiliser les cadres de la délibération, de la justice et de l'éducation.

L'activité propose d'ouvrir un espace de réflexion sur la manière dont nous pensons l'intelligence artificielle et les images que nous utilisons pour en parler. Elle vise à interroger les logiques de remplacement et de centralisation que les technologies véhiculent souvent implicitement, pour inviter à penser l'IA non pas comme substitut à l'humain, mais comme source potentielle d'écart, de différenciation, voire de libération créative.

Cette activité amène les apprenants à questionner le mythe de la neutralité technologique à travers l'analyse critique de l'argument du « couteau » souvent mobilisé pour justifier les usages de l'IA. L'objectif est de montrer que les choix techniques impliquent toujours des orientations sociales, culturelles et politiques, dès leur conception. À partir de l'article de Pierre Steiner, les élèves réfléchiront aux effets transformateurs des technologies sur nos intentions, nos usages et nos représentations.

L'activité vise à sensibiliser les apprenants aux enjeux politiques, sociaux et économiques de la régulation de l'intelligence artificielle, à partir de l'AI Act européen. Elle propose d'explorer les tensions entre protection des droits fondamentaux, innovation technologique et responsabilité collective. Elle encourage une lecture critique du rôle que peut jouer l'Europe dans la construction d'un modèle démocratique de gouvernance de l'IA.

L'activité invite les apprenants à comprendre les enjeux liés à la régulation de l'IA, à travers l'exemple du règlement européen AI Act. Elle propose d'explorer les tensions entre innovation technologique, protection des droits fondamentaux, équité sociale et enjeux environnementaux. L'article^[*] de Jean Cattan sert de point de départ à une réflexion critique sur les conditions d'une « régulation démocratique de l'intelligence artificielle ».